CarryOn：面向可复用任务对象的长程 Agent 上下文运行时
🧭 长程 Agent 上下文管理 · 对象化折叠 ★ 深度解读
University of California San Diego
CarryOn 将长程 Agent 上下文组织为可复用任务对象 + 执行上下文 + 近期交互，OSWorld 2.0 和 BrowseComp-Plus 分别 +5.8%/+7% 并大幅降 token
📌 工作参考价值（4 点）
- 在电商运营/客服长流程 Agent 中，把已完成的商品素材、报表、投放设置等作为 external object carrier，只记录对象路径与使用条件，续接时让 Agent 直接读对象检查，替代反复携带生产日志。
- 显式保留 execution context（目标、约束、未完成任务）与 carrier 互补；论文消融显示缺失该组件会使 partial 分数从 55.93 降至 44.00，实际系统里容易因折叠丢失当前焦点。
- 采用 fold 机制：当可复用产物形成（如图片导出、报表填充）就折叠历史，验证后原子提交，能将输入 token 稳定在阈值附近，成本优势随轨迹变长而扩大（OSWorld 上 500 步降本 34.1%）。
- 信息检索式 Agent（选品调研、竞品分析）可把中间结论存为 information product carrier 并绑定来源，减少重复搜索；论文在 BrowseComp-Plus 上实现 +7% 准确率且 token 降 22.9%。
能干但简约：提取并刻画前沿模型隐藏的思维链
🧭 LLM 隐藏思维链提取与推理结构刻画
Department of Computer Science, Aalborg University · Department of Electronic Systems, Aalborg University · Seafill
通过标准 API 注册自定义工具诱导闭源模型外化中间推理，发现提取推理匹配原生 CoT 且 Astra 拥有 token 高效的有向推理
📌 工作参考价值（4 点）
- 在 Agent 或推荐链路中用闭源 LLM 且需审计中间决策时，可通过标准 API 注册一个轻量自定义工具（如 think(step)）诱导模型外化推理；先在开源模型上对照原生 CoT 验证外部化痕迹性能一致，避免只得到事后合理化。
- 评估 query 推荐、文案生成、排序解释等 LLM 任务时，除最终准确率外引入 token 效率、推理步骤类型、推理树等指标：关注模型是否提前锁定正确轨迹、把简单步骤内化，从而选择更适合线上、成本更低的模型。
- 多 Agent 或生成式推荐 pipeline 中对中间推理做结构化记录，用于错误归因和可追溯性，防止正确答案来自错误推理；高风险策略如营销文案、价格解释尤其适用。
- 不要用 trace 长度作为推理质量代理：更强模型可能话少但关键，应关注有效推理步骤密度和正确轨迹选择早晚。
LOCUS：任务感知低秩后训练实现高效 token 语言生成
🧭 低秩后训练控制 LLM 输出 token 成本
University of Washington
冻结主干，在任务相关低秩子空间内做偏好优化，仅更新0.24-0.28%参数即可显著降低输出长度
📌 工作参考价值（4 点）
- 在电商/广告/Agent 场景中，LLM 生成商品文案、推荐解释、客服回复或搜索词时，输出长度直接决定推理成本与首字延迟。LOCUS 提示可以不在全参上做偏好对齐，而是冻结基座，用低秩适配器训练“简洁但保持有用”的偏好，参数更新量极小，便于线上灰度、热切换和快速回滚。
- 将输出 token 成本显式建模为约束优化：在 utility 约束下最小化长度。业务上可借鉴为“在转化率/相关性不显著下降的前提下，最小化生成 token 数”，用带长度惩罚或约束的 DPO 目标训练，避免模型学到“长回复=高偏好”的 verbosity bias。
- 任务感知的低秩子空间选择可以迁移为场景化适配器：不同业务（广告标题、搜索建议、Agent 任务规划）用不同低秩 subspace，分别控制生成长度，既保持各场景特有偏好，又避免冗长输出。
- 工程收益：论文显示仅更新约 0.25% 参数即可获得长度显著下降，这对需要频繁迭代偏好模型的多租户推荐/广告系统尤其有价值，可以大幅降低存储、训练和部署成本。
VikingRAG：结构化文档的高精度低 token 检索增强生成
🧭 结构化文档 RAG · 目录感知存储与经验复用 ★ 深度解读
Renmin University of China · Independent Researcher · Fudan University
目录感知语义存储结合经验边与自适应升级，使结构化文档 RAG 精度持平 SOTA 而 token 降至 5.1%-32.5%
📌 工作参考价值（4 点）
- 将商品/政策/售后文档按目录树 URI 化，构建多粒度摘要（chunk 与 section abstract）的向量索引；语义召回结果带回 URI 路径，后续检索/读取限定在该子树，避免每次把完整目录序列化进 prompt，显著降 token。
- 用 Search/List/Grep/Read 四种工具切分检索动作：先语义粗定位到商品/政策条目，再按 URI scope 做关键词精确匹配，最后只读需要的内容验证证据；适合售后规则问答、广告审核政策、商品属性答疑等易漏召回场景。
- 把多轮 agent 检索成功的轨迹物化为 query-conditioned experience edges，相似 query 直接走边扩展召回，避免重复探索；可借鉴为在线服务中的“会话检索缓存/知识捷径层”，随真实 query 增量更新，降低重复路径 token 与延迟。
- 自适应 escalation：先用一轮 experience-augmented retrieval 生成候选答案，并要求 LLM 先列关键约束再判定证据是否充分，不充分才升级多轮 agent。工程上能把大多数 easy query 留在低成本路径，hard query 才触发高成本 agent。
学习何时思考：面向测试时计算分配的自适应推理
🧭 LLM 自适应推理 · GRPO 自路由 ★ 深度解读
Vrije Universiteit Amsterdam
1.5B 蒸馏推理模型在 GRPO 内学会用首个 token 自路由 NoThink/Short/Long 三模式，平均响应长度减少 41% 且保持精度-长度帕累托前沿
📌 工作参考价值（4 点）
- 在电商搜索 query 理解、推荐解释、智能客服等 LLM 推理服务中，可部署“首个 token 路由”让主模型自行选择 NoThink/Short/Long，无需额外 router 网络；简单流量占多数时可节省 50%+ 推理成本，精度损失极小。
- 训练多模式策略时，用硬 token cap 把路由标签与行为绑定：给短模式设 1024/3000 上限，超过即判错，防止模型选短模式却输出长链，同时保留 Long 模式处理难题。
- 在 GRPO 中加入负载平衡项防止模式坍塌：advantage 里加 β_bal*(p* - f_mode)，并做非对称门控——只惩罚错误过载模式的 rollout、只奖励正确欠载模式，不破坏正确样本梯度。
- 先离线分析业务任务难度分布再上路由；若难度同质（如 Countdown 负例），路由学不到价值差距，会坍塌为单一模式。
M³Prune：面向多模态多智能体 RAG 的分层通信剪枝
🧭 多智能体协作效率优化 ★ 深度解读
Hefei University of Technology · East China Normal University · China University of Petroleum · Guangdong University of Finance and Economics · Alibaba Group
通过分层学习稀疏通信拓扑剪枝多智能体冗余交互，在提升多模态 RAG 准确率的同时大幅降低 token 开销
📌 工作参考价值（4 点）
- 在多智能体推荐或对话系统中，可直接引入可学习的软邻接矩阵（Gumbel-Softmax）对 Agent 间的通信权重建模，用策略梯度在训练时自动发现关键通信链路，替代固定拓扑。
- 分层剪枝策略（先剪模态内冗余，再剪模态间冗余）可迁移至多源信息（如商品图文、评论）的智能体协作，减少跨模态噪声，提升决策效率。
- 渐进式剪枝中的退化剪枝率 \(p^{(t)} = p^{(t-1)} \cdot \exp(-t/T)\) 和核范数正则项可作为通信成本控制模板，直接用于生产级多 Agent 系统的持续优化，避免一次性剪枝带来的不稳定。
- 模态对齐损失 \(L_{align}\) 可借鉴于推荐中多模态特征融合的对齐训练，显式保持图文 Agent 间语义一致性，防止因剪枝导致的协同失效。